|
13.05.2026 09:00 Uhr |
Wer im Web ein Forum, einen Marktplatz, eine Social-Media-App oder auch im Intranet eine Plattform betreibt, auf der Nutzer Bilder hochladen können, steht früher oder später vor der Frage: Wie erkennt man automatisch Bilder, die dort nichts zu suchen haben, damit man sie direkt als problematisch flaggen kann?
Als Sammelbegriff für problematische Inhalte steht NSFW (Not Save for Work). In der Content-Moderation umfasst das vor allem Nacktheit und sexuelle Darstellungen, aber auch explizite Gewalt und alles, was gegen die Nutzungsbedingungen einer Plattform verstößt.
Die naheliegende Lösung sind Cloud-Dienste wie AWS Recognition oder Google Cloud Vision. Sie funktionieren, haben aber einen Haken: Jedes hochgeladene Nutzerbild wird an Server im Ausland geschickt, dort analysiert – und je nach Anbieter auch temporär gespeichert oder für Trainingszwecke verwendet. Für datenschutzbewusste Betreiber in der EU ist das problematisch – Stichwort Auftragsverarbeitung und Drittlandtransfer. Es geht aber auch lokal. Wer Ollama installiert hat, kann NSFW-Erkennung sofort ausprobieren – ein Terminalbefehl genügt: